Sharp sinh tại Falmouth, Kentucky. Ông học trường Union College ở Kentucky chuyên về hóa học và toán học. Năm 1969 ông đậu bằng tiến sĩ hóa học ở Đại học Illinois tại Urbana-Champaign. Sau đó ông tới làm việc ở Học viện Công nghệ California cho tới năm 1971, nơi ông nghiên cứu các plasmid, và sau đó là Biểu hiện gien trong tế bào con người tại Phòng thí nghiệm Cold Spring Harbor dưới sự hướng dẫn của James Dewey Watson.

Năm 1974, ông được nhà sinh học Salvador Luria mời đến làm việc ở Học viện Công nghệ Massachusetts. Ông làm giám đốc Trung tâm nghiên cứu Ung thư của Học viện này (nay là Koch Institute for Integrative Cancer Research)[1] từ năm 1985 tới 1991; lãnh đạo phân ban Sinh học từ năm 1991 tới 1999; và giám đốc Viện Mc Govern nghiên cứu Não (McGovern Institute for Brain Research) từ năm 2000 tới 2004. Hiện nay ông làm giáo sư sinh học và là một Institute Professor[2] từ năm 1999; ông cũng là thành viên của Viện Koch nói trên. Sharp là người đồng sáng lập các công ty Biogen (nay là thành phần của Biogen Idec), Alnylam Pharmaceuticals, Magen Biosciences, và có chân trong ban giám đốc của cả ba công ty trên.[3] Ông là một cố vấn biên tập của Xconomy, và là ủy viên Hội đồng quản trị Khoa học ở Viện nghiên cứu The Scripps[4].

Năm 1988 ông được Đại học Columbia trao giải Louisa Gross Horwitz chung với Thomas R. Cech.